본문 바로가기

▶ 자연과학/▷ 알고리즘·머신러닝

【머신러닝】 AE, GAE, VAE, VGAE 손실함수 오토인코더, 그래프 오토인코더, 가변오토인코더, 그래프 가변오토인코더 손실함수 추천글 : 【알고리즘】 알고리즘·머신러닝 목차 a. 손실함수 b. 변분추론 c. 오토인코더 1차원 변수 x에 대한 정규분포의 확률분포는 다음과 같다. 참고로, d차원 변수 x에 대한 정규분포의 확률분포는 다음과 같다. 데이터포인트 개수 N개와 정규분포 및 등분산성을 따르는 표본분포 xi ~ 𝒩(μi, σ2)에 관하여 다음이 성립한다. 그러므로 손실함수를 와 같이 두고 이 loss를 최소화하는 방향으로 모델을 학습하는 것은 최대 우도 추정(maximum likelihood estimation, MLE)를 반영하는 것이라고 할 수 있다. 이는 오토인코더(AE, autoencoder)의 손실함수이기도 하다. 비슷하게,..
【알고리즘】 알고리즘·머신러닝 목차 알고리즘·머신러닝 목차 추천글 : 【컴퓨터과학】 컴퓨터과학 목차최근 수정 내역AE, GAE, VAE, VGAE 손실함수 (25.05.21)parametric bootstrap (25.03.23)Viterbi 알고리즘 (25.02.25)현업재직, 정보처리산업기사 및 빅데이터분석기사 취득을 바탕으로 작성한 글입니다. Ⅰ. 고전적 알고리즘1강. 정렬 알고리즘2강. 탐색 알고리즘 3강. 자료구조4강. 데이터 시각화5강. 회귀 알고리즘6강. 분류 알고리즘7강. 차원 축소 알고리즘8강. 클러스터링 알고리즘9강. 패턴 인식 알고리즘 Ⅱ. 인공지능 총론 10강. 딥러닝 개요 11강. 강화학습12강. 진화학습13강. 앙상블학습14강. 인공지능 철학 Ⅲ. 인공지능 각론15강. 다층 퍼셉트론16강. CNN 신경망17강. ..
【머신러닝】 AlphaGeometry 설치 및 이해 AlphaGeometry 설치 및 이해 추천글 : 【알고리즘】 알고리즘·머신러닝 목차 1. 개요 [본문]2. 설치 과정 [본문]3. 문법 [본문]a. IMO 기하 문제 풀이b. jgex_ag_231 문제 재구성 및 풀이c. 자연어 처리와 거대 언어 모델  1. 개요 [목차]⑴ 서설① AlphaGeometry : 네이처 논문에 투고된 언어 모델로서 symbolic deduction을 구현하여 IMO 수준의 기하 문제를 풀 수 있음② Google DeepMind에서 만든 알고리즘으로, 가설을 생성하는 모델인 FunSearch에서 더 발전시켜 만든 것으로 보여짐 (ref)⑵원리 ① symbol의 의미 : 각 명제를 벡터화(vectorization)하여 임베딩 스페이스 위에 올려놓는 것 ② 기하학에서의 sym..
【알고리즘】 22강. 컴퓨터 비전 모델 22강. 컴퓨터 비전 모델(computer vision model) 추천글 : 【알고리즘】 알고리즘 목차 1. CNN [본문]2. 비전 트랜스포머 [본문]3. 이미지 생성형 모델 [본문] 1. CNN(convolutional neural network) [목차]⑴ CNN 신경망의 개념 ⑵ 예 1. DIP(deep image prior) : 트레이닝 데이터 없이 CNN 아키텍처를 입력 이미지에 과적합(overfitting) 시켜 새로운 이미지를 생성 2. 비전 트랜스포머 [목차]⑴ 비전 트랜스포머(vision transformer, ViT)① ViT는 트랜스포머 인코더 구조만을 사용 : 임베딩에 특화됨. 이미지 생성에는 부적절함② 단계 1. 이미지를 여러 개의 작은 패치로 나누고 각 패치를 토큰으로 취급..
【알고리즘】 18강. GNN 신경망 18강. GNN 신경망 추천글 : 【알고리즘】 알고리즘 목차 1. 개요 [본문] 1.  개요 [목차]⑴ 그래프 데이터 처리를 위한 일반화된 모델 ⑵ 구성 1. 그래프 아키텍처① 종류 1. GCN(graph convolution network)② 종류 2. GAT(graph attention network)⑶ 구성 2. 노드 ① GNN은 다양한 그래프 아키텍처를 통해 노드 정보를 수집하고 변환⑷ 수식화  H(ℓ+1) = f(H(ℓ), A) ① H : 은닉층(hidden layer) ② A : 인접 행렬(adjacency matrix)③ f : 노드의 hidden state를 수집하고 변환하는 함수  입력: 2024.03.19 13:50
【알고리즘】 9강. 패턴 인식 알고리즘 9강. 패턴 인식 알고리즘(pattern recognition algorithm) 추천글 : 【알고리즘】 알고리즘 목차 1. 개요 [본문] 2. 종류 1. 아프리오리 [본문] 3. 종류 2. FP-growth [본문] 4. 종류 3. ECLAT [본문] 5. 종류 4. freeman chain coding [본문] 1. 개요 [목차] ⑴ 클러스터링 알고리즘처럼 unsupervised machine learning 중 하나 2. 종류 1. 아프리오리(apriori) [목차] ⑴ 가능한 모든 경우의 수를 탐색하는 방식을 개선하기 위하여 데이터들의 발생빈도가 높은 것(빈발항목)을 찾는 알고리즘 ⑵ 데이터셋이 큰 경우 모든 후보 아이템셋에 대하여 반복적으로 계산하는 단점이 있음 ⑶ 연관 알고리즘 중 하나 3. ..
【알고리즘】 8강. 클러스터링 알고리즘 8강. 클러스터링 알고리즘(군집 모형, clustering algorithm) 추천글 : 【알고리즘】 알고리즘 목차 1. 개요 [본문]2. 종류 1. unsupervised hierarchical clustering [본문]3. 종류 2. K-means clustering [본문]4. 종류 3. 밀도 기반 군집 [본문]5. 종류 4. 혼합 분포 군집 [본문]6. 종류 5. 그래프 기반 군집 [본문]7. 기타 알고리즘 [본문] 1. 개요 [목차]⑴ 클러스터링은 optimization problem① variability ○ variability는 distance 혹은 distance2의 합이라고 할 수 있음○ 거리 함수의 종류○ 이유 : big and bad is worse than small and ..
【알고리즘】 13강. 앙상블 학습 13강. 앙상블 학습(autoencoder) 추천글 : 【알고리즘】 알고리즘 목차 1. 개요 [본문]2. 기법 [본문] 1.  개요 [목차]⑴ 정의 : 여러 가지 모델들의 예측, 분류 결과를 종합하여 의사결정을 하는 기법  ⑵ 특징 : 다양한 모형들의 예측 결과를 결합함으로써 단일 모형보다 신뢰성이 높음 ⑶ 절차 ① 1단계. 트레이닝 데이터에서 여러 학습 집합들을 도출 ② 2단계. 각 집합으로부터 모델을 학습 ③ 3단계. 각 학습 모델로부터의 결과를 조합④ 4단계. 학습된 모델들의 최적 의견을 도출 ⑷ 앙상블 베이스 모형의 독립성을 증가시키는 방법① 입력 변수를 다양하게 함 ② 서로 다른 알고리즘을 사용③ 매개변수를 다양하게 함  2. 기법 [목차]⑴ bootstraping : 중복을 허용하는 데이터의 ..

티스토리툴바